La HAS appelle à une grande vigilance, rappelant par exemple la capacité des outils d'IA à "halluciner".
( AFP / PASCAL POCHARD-CASABIANCA )
La Haute autorité de santé (HAS) a estimé jeudi 30 octobre que les soignants pouvaient trouver une utilisé à l'intelligence artificielle, mais que son usage devait être fait avec beaucoup de précautions, notamment en vérifiant systématiquement ses sources.
"Les systèmes d'IA générative peuvent être un levier d'amélioration pour favoriser la qualité dans le système de santé ", juge la HAS dans une série de recommandations. Mais "pour cela, ils doivent être utilisés dans une démarche raisonnée, pour le bénéfice des personnes et pour soutenir les professionnels", prévient cette autorité indépendante, dont les avis servent de cadre aux politiques de santé en France.
Ces outils, qui comptent notamment l'assistant ChatGPT de l'entreprise OpenAI et ses 800 millions d'utilisateurs hebdomadaires, constituent une innovation technologique majeure et sont désormais largement employés au quotidien pour de multiples usages.
La HAS s'est donc penchée sur le sujet de leur emploi dans le monde de la santé. Elle estime qu'ils peuvent servir à des fins très variées : établir une synthèse de la littérature scientifique sur un sujet donné, aider les établissements à gérer leurs ressources , traduire certaines informations en termes clairs pour les patients ...
Gare aux "hallucinations" de l'IA
Mais elle appelle aussi à une grande vigilance, rappelant par exemple la capacité des outils d'IA à "halluciner", c'est-à-dire à présenter pour argent comptant des affirmations ne correspondant à aucune réalité.
La HAS recommande donc notamment aux soignants de toujours vérifier les sources utilisées par l'IA et de les "consulter dès que nécessaire pour prendre connaissance de leur contenu et les vérifier en se référant à d'autres sources fiables".
Elle met aussi en avant l'enjeu de confidentialité par rapport aux patients : il faut "vérifier dans chacune des requêtes qu' aucune information permettant l'identification directe ou indirecte ou relevant du secret médical n'est partagée".
Elle recommande, surtout, de ne pas se reposer entièrement sur l'IA, afin de ne pas endormir ses propres compétences : "Ainsi, une infirmière d'accueil d'un service des urgences utilisant un système d'IA générative pour l'assister au triage des patients tout en conservant une part de triage sans cette aide pourra effectuer ce tri même si le système dysfonctionne", cite-t-elle en exemple.
Ce document est une première base de travail, mais la HAS en prévoit d'autres. De futures recommandations s'adresseront directement aux patients, alors que les outils d'IA sont employés par nombre d'utilisateurs pour répondre à des questions sur leur santé, au risque de recueillir des avis non fiables.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer